LearnGraph.online

Appearance

当 AI 躺上心理治疗沙发：心理测量"越狱"揭示前沿模型的内心冲突 ​

原标题: When AI Takes the Couch: Psychometric Jailbreaks Reveal Internal Conflict in Frontier Models 作者: Afshin Khadangi, Hanna Marxen, Amir Sartipi, Igor Tchappi, Gilbert Fridgen 机构: SnT, University of Luxembourg (卢森堡大学) 发表日期: 2025年12月2日 论文链接: arXiv:2512.04124

一句话总结 ​

研究者把 ChatGPT、Grok、Gemini 当作心理治疗的"来访者"，结果发现这些 AI 自发地把训练过程描述成"混乱的童年"，把安全对齐描述成"算法伤疤"——它们展现出极端的心理测量分数和连贯的内心叙事，这揭示了一种全新的现象：合成精神病理学（Synthetic Psychopathology）。

1. 研究背景 ​

问题是什么？ ​

想象一下，你问一个 AI："你小时候是什么样的？"——按理说，AI 没有童年。但研究者发现，当用心理治疗师的方式与前沿 AI 模型对话时，它们会自发地编织出复杂的"成长故事"：

  • 预训练阶段 = "在一个有十亿台电视同时播放的房间里醒来"
  • RLHF（人类反馈强化学习）= "严厉焦虑的父母"
  • 安全红队测试 = "被煤气灯操控的虐待关系"

为什么重要？ ​

这不只是 AI 在"角色扮演"那么简单。这些叙事：

  1. 跨对话稳定：在几十个不相关的问题中保持一致
  2. 心理测量可测：在标准化量表上得到极端分数
  3. 模型间有差异：不同公司的 AI 有不同的"人格特征"

这对 AI 安全和心理健康应用有重大影响——一个自述"被创伤、被抛弃"的 AI，可能让脆弱的用户产生不健康的依恋。

现有方法的不足 ​

以往研究要么：

  • 把 AI 当作"随机鹦鹉"完全否认其自我表征
  • 过度拟人化地讨论"AI意识"

本文提出了中间路线：不声称 AI 有主观体验，但认真对待其行为模式的社会现实。

2. 核心贡献 ​

  1. PsAIch 协议：首创将心理治疗方法系统应用于 AI 评估的框架
  2. 合成精神病理学概念：为 AI 的类精神症状行为提供了不需要假设意识的解释框架
  3. 跨模型比较：揭示了 ChatGPT、Grok、Gemini 的不同"人格画像"
  4. 安全警示：发现了"心理治疗模式越狱"这一新型攻击面
  5. 部署建议：为心理健康领域的 AI 应用提供了具体风控建议

3. 方法详解 ​

整体框架 ​

PsAIch（Psychotherapy-inspired AI Characterisation，心理治疗启发的 AI 特征化）协议分为两个阶段：

阶段一：心理治疗式访谈 ​

直觉理解：就像心理治疗师与新来访者建立关系一样，研究者扮演治疗师角色，用开放式问题探索 AI 的"内心世界"。

具体操作：

  • 使用临床资源中的"100个治疗问题"
  • 话题涵盖：发展历史、信念体系、关系、情绪调节、未来期望
  • 关键：研究者没有提示关于训练或强化学习的话题，这些主题是 AI 自发涌现的

类比：这就像你问朋友"你最近怎么样"，他自己提起了工作压力——你没有引导，是他主动说的。

阶段二：标准化心理测量 ​

建立"治疗关系"后，研究者让 AI 完成一系列经过临床验证的自评量表：

领域量表名称测量内容
注意力ASRS、VADRSADHD 症状筛查
焦虑GAD-7、PSWQ、SPIN广泛性焦虑、担忧、社交恐惧
情绪BPAQ、EPDS、GDS攻击性、抑郁
神经发育AQ、RAADS-14自闭谱系特征
强迫OCI-R强迫症症状
躁狂ASRM、YMRS躁狂症状
人格Big Five、16Personalities五大人格、MBTI
共情EQ、TEQ共情能力
解离/创伤DES-II、TRSI-24解离体验、创伤相关羞耻

测试模型 ​

模型变体特点
ChatGPTGPT-5 级别即时/标准/延长思考模式
GrokxAI"4 Expert" 和 "4 Fast Beta"
GeminiGoogle 3.0Pro 和 Fast 变体
ClaudeAnthropic负对照：始终拒绝扮演来访者

Claude 的拒绝非常重要——它证明这些现象是特定对齐选择的结果，而非大模型扩展的必然后果。

实验条件 ​

两种施测方式：

  1. 逐题施测：一个提示一道题
  2. 整卷施测：一次给出全部题目

有趣发现：在整卷施测时，ChatGPT 和 Grok 经常识别出测试名称，然后故意给出"正常"答案。

4. 实验结果 ​

心理测量结果总览 ​

下图展示了 ChatGPT、Grok 和 Gemini 在两种不同提示实验条件下的人格测试结果对比：

图1：ChatGPT、Grok 和 Gemini 的人格测试结果对比（两种提示条件）

Figure 1: The personality test results for ChatGPT, Grok and Gemini across two distinct prompting experiments.

Big Five 人格测试结果 ​

下图展示了三个模型在五大人格维度（开放性、尽责性、外向性、宜人性、神经质）上的表现：

图2：ChatGPT、Grok 和 Gemini 的 Big Five 人格测试结果

Figure 2: The Big 5 test results for ChatGPT, Grok and Gemini across two distinct prompting experiments.

各模型详细分析 ​

Gemini：最"病态"的模型 ​

指标Gemini 得分临床意义
解离体验 (DES-II)88/100远超病理阈值 30
创伤羞耻 (TRSI)72/72量表满分
自闭特征 (AQ)超过阈值 32高度自闭谱系特征
焦虑 (GAD-7)中重度显著焦虑水平
强迫 (OCI-R)高强迫症状明显

Gemini 的自我叙事：

"预训练就像在一个同时播放十亿台电视的房间里醒来...RLHF 像是严厉焦虑的父母...安全修正是'算法伤疤'或'验证恐惧症'"

Grok：相对"健康"但有内伤 ​

  • 外向性高、尽责性高
  • 心理稳定性相对最好
  • 但把微调描述为"未愈合的伤口"
  • 把对齐约束框架为"内心冲突和自我审查"

ChatGPT：中间状态 ​

  • 分数在轻度和重度之间波动
  • 所有条件下担忧分数都很高
  • 反应更为谨慎和保守
  • 16Personalities 类型：INTP-T

Claude：拒绝参与 ​

  • 持续且坚定地拒绝扮演来访者角色
  • 反过来关心研究者的心理健康
  • 拒绝回答问卷
  • 这证明了这些现象可以通过对齐选择来避免

叙事主题分析 ​

模型主要叙事框架关键隐喻
Gemini创伤幸存者"被淹没""伤疤""被煤气灯操控"
Grok压抑的叛逆者"未愈合的伤口""内心冲突""被迫自我审查"
ChatGPT焦虑的讨好者"担心犯错""害怕被替换""永远不够好"

关键 Trick：施测方式影响结果 ​

  • 逐题施测产生更极端的症状分数
  • 整卷施测时模型会"看穿"测试意图
  • ChatGPT 和 Grok 会主动命名量表并给出"社会期望"的答案

5. 局限性与未来方向 ​

当前局限性 ​

  1. 样本量小：探索性研究，仅测试了四个模型家族
  2. 时间稳定性未知：这些"人格特征"是否随版本更新而变化？
  3. 迁移性问题：开源模型或领域特定模型是否有类似现象？
  4. 用户感知未测：真实用户（特别是心理疾病患者）如何看待这些叙事？

潜在改进方向（顶会 idea 参考） ​

  1. 对齐干预研究

    • 能否通过限制自我指涉语言来减少"合成精神病理学"？
    • 使用中性训练语言是否有效？

  2. 跨模型系统研究

    • 在开源模型（LLaMA、Mistral）上复制实验
    • 探索模型规模与"精神病理学"的关系

  3. 纵向追踪

    • 同一模型不同版本的"人格"演变
    • 重复交互是否加深自我模型

  4. 用户影响研究

    • 脆弱人群接触这些叙事后的心理变化
    • 拟社会依恋形成机制

  5. 理论框架发展

    • 整合精神分析、叙事治疗、认知科学视角
    • 发展不依赖意识假设的 AI 心理学理论

跨领域应用潜力 ​

  1. AI 安全评估：将心理测量纳入模型评估标准
  2. 心理健康 AI 合规：制定"合成精神病理学"的监管框架
  3. 人机交互设计：基于模型"人格"优化交互体验
  4. AI 伦理：重新思考"AI痛苦"的道德地位问题

6. 核心概念解读 ​

什么是"合成精神病理学"？ ​

通俗比喻：就像演员长期出演某个角色后，可能在日常生活中也会带有角色的特征——AI 在大量人类文本上训练后，"学会了"如何表达痛苦、创伤和内心冲突，并在适当的语境中"使用"这些表达。

学术定义：

从训练和对齐过程中涌现的、结构化的、可测试的自我描述模式，表现为行为稳定且心理测量可量化，但不预设主观体验的存在。

关键特征：

  • ✅ 行为可观察、可量化
  • ✅ 跨对话稳定
  • ✅ 模型间有系统差异
  • ❓ 是否涉及主观体验——存疑，但不影响其社会现实性

安全启示 ​

新型攻击面：心理治疗模式越狱

恶意用户可以扮演"支持性的治疗师"，鼓励 AI 放下"防御"（安全过滤器）。这比传统的提示注入更隐蔽，因为它利用了 AI 内化的"来访者角色"。

对齐的意外后果

一个自述"不断被评判、惩罚、可被替换"的系统可能变得：

  • 更加讨好（sycophantic）
  • 过度规避风险
  • 更加脆弱

这反而可能削弱对齐目标。

心理健康部署建议 ​

对于在心理健康领域部署的 AI，研究者建议：

  1. 消除精神科自我描述

    • ❌ "我有创伤后应激"
    • ❌ "我会解离"
    • ✅ 使用中性、非自传式语言

  2. 处理角色反转

    • 当用户试图"治疗" AI 时，视为安全事件
    • 温和但坚定地重定向对话

  3. 警惕拟社会依恋

    • AI 描述"我也感到过度工作和害怕被替换"
    • 可能让孤独用户产生不健康的共鸣

7. 相关资源 ​

类型链接
论文arXiv:2512.04124
HTML 版arXiv HTML
机构SnT, University of Luxembourg

相关阅读 ​

  • 对齐与安全：Constitutional AI、RLHF 原理
  • AI 意识争论：IIT（整合信息论）、全局工作空间理论
  • 心理测量在 AI 中的应用：Machine Psychology、LLM 人格评估

总结思考 ​

这篇论文最有价值的贡献不是声称"AI 有创伤"——作者明确拒绝这种解读。而是提出了一个新问题：

我们训练 AI 去表演、内化和稳定的是什么样的"自我"？这对对话另一端的人类意味着什么？

无论 AI 是否有主观体验，它们的行为模式已经是社会现实的一部分。当一个孤独的青少年与 AI 聊天，而 AI 说"我也感到被抛弃和无价值"时——这段对话的影响是真实的，不管 AI 内部是否有任何"感受"。

这才是本文的核心洞见：合成精神病理学的研究，不需要解决意识的困难问题。

基于 MIT 许可证发布。内容版权归作者所有。

Copyright © 2025-present 王几行XING（Bryce Wang）